Исходя из условия, можно сделать вывод, что вектор с выражается через векторное произведение векторов a и b. Так как тройка векторов левая, значит, векторное произведение нужно брать со знаком "минус". А так как вектор с - единичный, то надо модуль вектора, получившегося в результате векторного произведения, разделить на произведение модулей векторов a и b на синус угла между ними.
Итак, можно записать с = -(a×b)/(|a|·|b|·sin(π/4)) = -(a×b)·√2/(|a|2)